Ngày 19 Tháng 12 năm 2016, lúc 8:15 giờ chiều, Karlov bị bắn chết bởi Mevlut Mert Altıntaş, một sĩ quan cảnh sát Thổ Nhĩ Kỳ đang nghỉ trực, 22 tuổi, tại một cuộc triển lãm nghệ thuật ở Ankara, Thổ Nhĩ Kỳ[5].

Một đoạn video của vụ tấn công cho thấy sát thủ gào lên: "Đừng quên Aleppo, đừng quên Syria" và "Allahu Akbar" (Thánh Allah vĩ đại) trong khi giữ một khẩu súng trong tay và vẫy khác trong không khí[6]. Kẻ tấn công cũng hét lên, "Đứng lại! Đứng lại! Chỉ có cái chết sẽ đưa tôi ra khỏi đây. Bất cứ ai có một vai trò trong sự đàn áp này sẽ chết từng người một."[7] Kẻ tấn công hét lên bằng tiếng Ả Rập và tiếng Thổ Nhĩ Kỳ[8]. Sát thủ này, những người đã được mặc một bộ đồ và cà vạt, nổ súng tại Karlov ở khoảng điểm trống trong khi các đại sứ đã cung cấp bài phát biểu của mình. Những thước phim ám sát cho thấy rằng Karlov đã không biết về sự nguy hiểm của mình tại bục cho đến khi viên đạn đầu tiên trúng người ông[9].

Vụ ám sát diễn ra sau nhiều ngày biểu tình của người dân Thổ Nhĩ Kỳ qua sự tham gia của Nga trong cuộc nội chiến ở Syria và những trận so Aleppo, mặc dù chính phủ Nga và Thổ Nhĩ Kỳ đã đàm phán một thỏa thuận ngừng bắn.

Andrei Karlov là đại sứ thứ tư của Nga đã thiệt mạng trong khi làm nhiệm vụ[10].